在自主机器人的世界，人类何以安身｜彼岸
远行者说
本期彼岸文章是《神机妙算》系列的第七篇，作者是保罗·萨福。他用充满想象的笔触描绘了人工智能的演化，提到了人工智能领域的一对相关概念: 弱人工智能和强人工智能。弱人工智能,又称为狭义人工智能，指的是没有感觉知觉的专注于一项任务的人工智能，比如苹果手机上的Siri语音控制功能。强人工智能是指有意识、知觉和心灵的机器，或者能解决任何问题的人工智能。萨福对人工智能高速发展的潜在风险隐隐担忧。我推荐这篇文章是因为萨福是硅谷预测未来的权威之一，其观点有代表性和前瞻性。
保罗·萨福是美国未来研究所所长，该研究所是美国著名的智囊团，专为大企业和政府机构提供长期计划和预测服务。他也是斯坦福大学的顾问教授和硅谷奇点大学的教授，是全球高科技行业著名的技术预测家和咨询家，专精于对大尺度、长时间变化的预测。萨福从计算机还在草创期的时候就开始关注史蒂夫·乔布斯、比尔·盖茨等众多的“革命的弄潮儿”。他也是美国知识界最早赏识孙正义的人之一。早在2009年，他就声称：“互联网才刚刚开始，真正的革命还在后面呢。下一个大事件不再是互联网，而是机器人。”
在旧金山和硅谷，一直活跃着一群对未来着迷的学者、思想家和预言家。他们同时也是创业者、技术控和公众意见领袖。他们中好几位包括凯文•凯利、斯图尔特•布兰德及保罗·萨福都是Edge网站的成员。他们的创意和观点常常交相辉映，是硅谷创新生态系统一个独特的组成部分。21世纪初，保罗·萨福预测：“大约每三十年科学的进步会转化为技术，进而催生一个占主导地位的行业。我们正面临这样一个巨变的关头，从电子学到生物学。“ 他的预言是否准确呢？让我们拭目以待吧。
译者：胡小洁
原文：保罗·萨福 （Paul Saffo）
一个被强人工智能所占据的未来世界令我恐惧。而一个完全没有强人工智能踪影的未来世界同样会让我胆战心惊。数十年来的技术创新已经创造出了一个如此复杂和发展快速的世界体系，快得都超出了人类所能理解的范畴，更不要说管理了。如果要避免文明劫难的发生，那么我们所需要的将不仅仅是聪明的新型工具，而是同盟和协助者。
所谓的“弱”人工智能系统这几十年里已遍地开花。创作艺术品，操控工业系统，驾驶民航客机，调控高峰时段的交通，告诉我们哪些该看哪些该买，帮我们决定是否参加某个工作面试，并为失恋者寻找新的爱侣，弱人工智能无处不在，但又隐藏得不着痕迹。此外，随着处理程序、传感器和算法技术的不断优化，弱人工智能显然正走在一条通往强人工智能世界的路途上。远在人工超级智能未到来之前，不断演化的人工智能就将涉足一些曾看似无法完成的任务，包括从使用武器到制定政策。
与此同时，如今的原始人工智能让我们对未来人机互动有了更多了解。弱人工智能的智力可能还不如一只蚂蚱，但这并不妨碍我们与它们展开推心置腹的交谈，去关心它们的感受。从蛛丝马迹中探寻生命有可能存在的迹象，是我们的天性所在。如同我们的祖先创造了众多精灵、食人妖和天使来充实他们的世界，我们也急迫的在数字信息空间中找寻着同伴。这是我们开发强人工智能的又一个动力——我们总想找个说话的对象。最终结果可能是，我们邂逅的第一个非人类智能不是小绿人或者聪明的海豚，而是我们自己发明的生命体。
当然，我们会赋予人工智能以感情和权利——而且他们最终也会对此有所需求。在笛卡尔时代，动物被认为只是机器而已——一只哭泣的狗与一个因缺油而咿呀作响的齿轮别无二致。而在去年年底，阿根廷的一家法院已赋予了一只猩猩“非人类个人”的权利。在强人工智能还未出现前，人们就会向数字生物投入相同的感情，并给予它们法律地位。
人工智能的快速发展也在改变着我们对于智能是什么的思考。与弱人工智能之间的互动将使我们意识到，智能是一个连续体，不存在阈值。近十年前，日本的一位研究人员证实，黏液菌可以穿过迷宫抵达一小块美味的食物。去年，美国伊利诺伊州的一位科学家也证实了，在合适的条件下，一滴油能够以一种令人惊奇的灵活方式探索着穿过迷宫，直至接触到一小块酸性凝胶。当人工智能前所未有的深深渗入到我们的生活中时，我们会认识到，适宜的数字实体与大多数自然界中的事物一样，隐藏着知觉的微光。从这一点起步，要探究究竟树木或岩石或人工智能在想些什么，也就一步之遥了。
最后，最重要的问题不再是人工超级智能到底会不会出现。而是在一个自主机器人数目以指数级增长的世界里，人类何以安生立命。如今互联网上的自主程序数量已经超过了人类用户的数量——在自然界中，同样的情形也会出现。
邓萨尼勋爵曾发出过这样的警示： “如果我们改变得太多，可能就不再适应事务的格局。”
原文来自Edge网站：
2015年Edge网站年度之问：你对会思考的机器有何看法？
http://edge.org/response-detail/26071
点击题目可以阅读本系列其余文章
彼岸 神机妙算系列文章之一（第零捌壹期）：关于机器智能的自言自语
彼岸 神机妙算系列文章之二（第零捌捌期）：你干吗在乎别的机器怎么想
彼岸 神机妙算系列文章之三（第零玖贰期）：当人与机器不分你我
彼岸 神机妙算系列文章之四（第零玖陆期）：未来早已到来，只是还未普及
彼岸 神机妙算系列文章之五（第壹零肆期）：请叫它们人工智能
彼岸 神机妙算系列文章之六（第壹零捌期）：假如意识可以移植
一幅画 一段按语 一篇英文摘译时评：行业热点的跟踪分析